Chiến sự ở Nam Kinh vẫn chưa kết thúc hoàn toàn. Trong đêm ngày 12 và 13 tháng 12, quân Nhật chiếm các cổng còn lại và tiến đến thành phố. Trong các chiến dịch càn quét ở thành phố, quân Nhật tiếp tục mất thêm vài ngày để đánh trả những sự kháng cự lẻ tẻ của quân Trung Quốc còn sót lại.[84][85][86] Mặc dù Mạc Phụ Sơn (tọa lạc ngay phía bắc Nam Kinh) đã bị Biệt đội Yamada chiếm đóng mà không đổ máu nhiều trong sáng 14 tháng 12,[87] nhưng những ổ kháng chiến ngoài Nam Kinh vẫn còn tồn tại thêm vài ngày nữa.[88]

Cũng trong thời gian này, các đơn vị Nhật Bản làm nhiệm vụ truy quét ở Nam Kinh quyết định rằng những cựu binh Trung Quốc ẩn nấu trong thành phố có thể là mối đe dọa an ninh. Quân càn quét Nhật tiến hành lục soát kỹ lưỡng mọi tòa nhà ở Nam Kinh và thường xuyên xâm nhập vào Khu an toàn Nam Kinh để tìm kiếm quân Trung Quốc.[84][85] Đơn vị đã cố gắng phân biệt cựu binh với thường dân bằng cách kiểm tra xem vai họ có hằn vết do đeo ba lô hay súng trường không.[84] Tuy nhiên, các tiêu chí để nhận biết thường mang tính võ đoán, chẳng hạn như có một đại đội Nhật bắt bớ tất cả đàn ông với "vết giày ở chân, vết chai trên mặt, tư thế cực kỳ tốt và/hoặc có ánh mắt sắc bén". Vì lý do này mà nhiều thường dân bị bắt cùng lúc.[89] Kết cục xảy ra với binh lính và thường dân bị bắt rất khác nhau tùy đơn vị, đa phần là bị hành quyết trong một sự kiện gọi là Thảm sát Nam Kinh. Cư dân và nhà báo nước ngoài tại Nam Kinh đã khiến cho toàn thế giới biết đến sự kiện này chỉ trong vòng vài ngày sau khi thành phố thất thủ.[90] Quân Nhật cũng từng thực hiện các hành vi tàn sát, hãm hiếp, cướp bóc và đốt phá ngẫu nhiên trong thời gian họ chiếm đóng Nam Kinh. Theo Tòa án Quân sự Quốc tế vùng Viễn Đông, tổng số thường dân và tù nhân chiến tranh bị sát hại ở Nam Kinh và vùng phụ cận trong 6 tuần đầu tiên Nhật Bản chiếm đóng là hơn 200.000. Ngoài ra còn có 20.000 phụ nữ bị hãm hiếp, bao gồm cả trẻ vị thành niên và người lớn tuổi.[91] Tổng số người chết trong Thảm sát Nam Kinh có nhiều nguồn ước tính khác nhau.[92]

Những hoạt động càn quét và thảm sát quy mô lớn của quân Nhật kết thúc vào ngày 17 tháng 12, khi tướng Matsui tiến vào Nam Kinh làm lễ duyệt binh chiến thắng.[93] Vào cuối tháng 12, hầu hết binh lính Nhật đều rời Nam Kinh, mặc dù các đơn vị của Binh đoàn Viễn chinh Thượng Hải vẫn tiếp tục chiếm giữ thành phố.[94] Các Hán gian tại địa phương đã thành lập Ủy ban Tự trị Nam Kinh, một chính quyền khu tự quản mới vào ngày 1 tháng 1 năm 1938.[95] Tuy nhiên, phải đến ngày 25 tháng 2, mọi hạn chế đối với việc tự do đi lại của dân thường ra vào thành phố mới được gỡ bỏ.[96]